Машината за безотчетност — защо големите системи вземат грешни решения?
Наскоро чакайки да се кача на полет, станах свидетел на ярък пример за феномен в сърцето на Машината за безотчетност. Спътник е получил отказ да се качи на борда и се е молил на служителя на авиокомпанията. Придружителят очевидно беше съпричастен - но това беше политика на компанията. За съжаление тя не можеше да направи нищо.
Бяхме свидетели на това, което Дан Дейвис нарича „поглъщане на отчетност“: ситуация, в която човешка система делегира вземането на решения на книга с правила, а не на разпознаваем индивид. Ако нещо се обърка, никой не носи отговорност.
Началната точка на забавната, проницателна книга на Дейвис е, че неконтролираното разпространение на потъвания на отговорност е един от основните двигатели на това, което историкът Адам Туз нарича „поликриза” на 21 век. Тяхното влияние достига далеч отвъд разочарованите клиенти, безкрайно задържани до сервизните отдели „компютърът казва не“. Във финансите банковите кризи се повтарят редовно - но малко отделни банкери са виновни. Ако обещанията на политиците се провалят, те се оплакват, че нямат власт; дълбоката държава по някакъв начин е виновна.
Произходът на проблема, твърди Дейвис, е управленската революция, започнала след Втората световна война, подтикната от появата на евтина изчислителна мощност и разпространението на алгоритмични решения - навлизане във всяка сфера на живота. Тези системи в крайна сметка „действат като зона на смачкване на кола, за да предпазят всеки отделен мениджър от катастрофално решение“, пише той. Въпреки че са привлекателни от гледна точка на индивида, те пречат на обратната връзка, от която зависи обществото като цяло.
И все пак историята, продължава Дейвис, не е толкова проста. Погледнато от друга гледна точка, поглъщането на отчетност е напълно разумен отговор на непрекъснато нарастващата сложност на съвременните икономики. Стандартизацията и изричните политики и процедури предлагат единствения възможен път към меритократично набиране на персонал, последователно обслужване и ефективна работа. Разчитането на личната преценка на средните мениджъри просто би довело до различен вид бъркотия.
Следователно въпросът не е как да се върнем в свят без нечовешки системи за вземане на решения – а как да гарантират, че са отворени за обратна връзка, способни да се адаптират и подобряват. Unaccountability Machine проучва две интелектуални рамки, които имат за цел да дадат отговор. Първият ще бъде добре познат на повечето читатели на FT: икономика. Дейвис го оценява като безнадеждно недостатъчен. Неговите силно абстрактни теории за това как работят фирмите и пазарите са тривиални, твърди той. Още по-лошо, класическият постулат за оптималността на пазарните резултати подхранва положително кризата на отчетността, като убеждава мениджърите и политиците, че е по-добре да се остави пазарът да решава.
Милтън Фридман предизвиква особен гнев. Дейвис твърди, че неговата изключително влиятелна доктрина за максимизиране на стойността на акционерите е породила пандемия от потъвания на корпоративната отчетност; други цели бяха неоправдано маргинализирани. Неотдавнашните провали в Boeing в САЩ и Thames Water в Обединеното кралство предполагат, че той има право.
Вместо това, твърди Дейвис, съществува втори, по-добър начин – по-малко познат на повечето от нас. Това е „управленска кибернетика“, рамка за разбиране на корпоративния и икономически свят, възникнала от изследването на операциите, използването на математика за решаване на проблеми с управлението на човешки и технически ресурси, което започна по време на Втората световна война.
Героят на Дейвис тук е консултантът по мениджмънт, теоретик на информацията и философ Стафорд Биър, чийто разцвет през 60-те и 70-те години го видя да съветва изпълнителни директори и правителства по целия свят. Биър възприема компаниите като форми на нечовешки интелект – това, което писателят на научна фантастика Чарли Строс нарича „много стар, много бавен ИИ“. Като такива, решаването на техните проблеми не е въпрос на елиминиране на пазарните неуспехи, а на гарантиране, че потокът от информация между вземащите решения и тези, за които е взето решение, се поддържа в баланс. Това е един вид психоанализа за нечовешки интелекти, със Стафорд Биър в ролята на Зигмунд Фройд.
Дейвис се оплаква от комбинацията от политическа подкрепа и интелектуална мода, която вместо това вижда триумф на икономиката. Но с The Unaccountability Machine той предоставя елегантно ново въведение в този интригуващ път, който не е поеман в следвоенната социална наука, и прави убедителни аргументи, че в ерата на AI времето най-накрая е дошло.
И така, как за практически препоръки? Дейвис твърди, че в корпоративния свят най-очевидният е да се обезвреди индустрията за изкупуване с ливъридж. Тук кибернетичното решение е да се изисква от частните инвеститори да гарантират дълговете на обектите за поглъщане, запечатвайки голямата отчетност на ограничената отговорност.
Отвъд това обаче, Дейвис е срамежлив относно спецификите. Най-важното нещо, казва той, е да детронираме масовата икономика. „Не можете да управлявате икономистите“, пише той, „не по начина, по който са в момента“. Проучвайки затихването на икономическата ортодоксалност по света днес, със свободната търговия при отстъпление и индустриалната политика отново на мода, бих казал, че това желание се изпълнява. Може би кибернетиката на управлението наистина най-после ще има своя ден.
Машината за безотчетност: защо големите системи вземат ужасни решения — и как светът изгуби ума си от профил на Дан Дейвис £22, 304 страници
Присъединете се към нашата онлайн група за книги във Facebook на и се абонирайте за нашия подкаст Живот и изкуство, където и да слушате
